Sau trận Mạc Bắc, quân Hán cơ bản đã giải quyết xong nạn uy hiếp của Hung Nô. Tuy nhiên hai bên vẫn tiếp tục xảy ra xung đột. Vào năm 115 TCN, người Hán tiếp tục lấn át và lập huyện trên đất Hung Nô, đồng thời lại cử Trương Khiên sang phía tây liên kết với các quốc gia ở đó. Sang năm 112 TCN, Hung Nô liên kết với người Khương tiến công vào quân Ngũ Nguyên, giết chết quan thái thú ở đó. Để đối phó, sang năm 111 TCN, Hán Vũ Đế cho 18 vạn quân đi về phía bắc để gây sức ép với Hung Nô.

Năm 99 TCN, tướng quân Lý Quảng Lợi được lệnh đem 300000 quân lên phía bắc, giao chiến với Hữu hiền vương của Hung Nô ở Kỳ Liên Sơn. Một tướng khác là Lý Lăng đem quân bộ cùng năm nghìn người thiện xạ qua phía Bắc Cư Duyên chừng hơn nghìn dặm.

5000 quân của Lăng bị 80000 quân Hung Nô bao vây. Trước tình thế tuyệt vọng, tên bắn đã hết, lính chết quá nửa, nhưng giết hại quân Hung Nô cũng hơn vạn người, sau đó Lý Lăng vừa rút lui vừa đánh tám ngày liền. Nhưng trên đường về thì lại bị quân Hung Nô chặn đứt lối đường. Quân Lăng thiếu ăn mà cứu binh không tới. Lý Lăng bất đắc dĩ phải đầy hàng Hung Nô. Hán Vũ Đế nghe tin, giết mẹ và vợ con Lăng[21].

Sang năm 90 TCN, Lý Quảng Lợi lại đem quân chinh phạt vùng Ngũ Nguyên. Tuy nhiên cùng lúc ở kinh thành, Hán Vũ Đế nghi ngờ ông ta có âm mưu lập Xương Ấp vương làm thái tử nên bỏ ngục vợ ông ta. Lý Quảng Lợi mất tinh thần, nên không thể địch lại Hung Nô. Quân Hán thiệt hại nặng, thương vong hơn 10000 người. Tư trị thông giám cũng lên tiếng chê trách việc làm này của vua Hán.[22]

Sau thất bại này, Hán Vũ Đế đành phải hạ cố tạ tội với Hung Nô và bị Hung Nô ép phải cống nạp cho mình 10000 thạch mễ tửu, 5000 hộc lương thực.[23]

Tuy nhiên chiến tranh vẫn còn tiếp diễn. Năm 80 TCN, quân Hung Nô mở cuộc tiến công vào nước Ô Tôn. Ô Tôn cử sứ sang nhà Hán cầu cứu. Năm 72 TCN, Hán Tuyên Đế cử quân liên kết với Ô Tôn tiến công Hung Nô, bắt giết 40000 người và nhiều quý tộc.